인공지능의 진화는 다음과 같은 결정적인 패러다임 전환을 의미합니다: 기호 AI (GOFAI) 에서 연결주의(Connectionism). 역사적으로 AI는 인간이 코딩한 규칙이 모든 결과를 지배하는 "하향식(top-down)" 연역적 추론에 의존했습니다. 이 접근 방식은 논리 퍼즐에는 정확했지만, 다음과 같은 지점에서 실패했습니다: 모라벡의 역설(Moravec's Paradox)— 즉, 고차원적 추론은 계산적으로 쉬운 반면, 저차원적 감각운동 기술(얼굴 인식 등)은 하드코딩이 거의 불가능하다는 사실을 깨달은 것입니다.
반면에, 생물학적 영감 컴퓨팅(Biologically-Inspired Computing) 은 "상향식(bottom-up)" 귀납적 학습 전략을 채택합니다. 정적인 명령을 따르는 대신, 인공 신경망은 분산 표현을 활용하여 원시 데이터에서 패턴을 파악합니다. 이러한 구조가 인간 두뇌의 병렬 처리와 가소성을 모방하지만, 이를 다음과 같이 인식하는 것이 중요합니다: 수학적 추상화. 신경망은 선형대수와 미적분을 활용하여 기능적 결과를 얻으며, 생물학적 충실도보다 계산 효율성을 우선시합니다.
Python 구현
문제 1
로봇이 걷도록 하드코딩하는 것이 체스를 두도록 프로그래밍하는 것보다 더 어려운 이유를 설명하는 개념은 무엇인가요?
사례 연구: 기계 번역의 진화
아래 시나리오를 읽고 질문에 답하세요.
2000년대 초반, 기계 번역은 "통계적 구문 기반(Statistical Phrase-Based)" 모델(기호적/통계적 규칙)에 의존했습니다. 2016년 Google이 "신경망 기계 번역(Neural Machine Translation, GNMT)"으로 전환하면서, 시스템은 단어를 개별 토큰으로 보는 대신 문장을 고차원 공간의 벡터로 보기 시작했습니다.
Q
신경망 접근 방식이 규칙 기반 접근 방식보다 속어와 문맥을 더 잘 처리한 이유는 무엇인가요?
답:
신경망 접근 방식은 "상향식" 귀납적 학습을 활용합니다. 수백만 개의 문서를 처리함으로써, 문맥 속 단어들 간의 확률적 관계를 파악합니다. 이는 속어와 문법의 유동적인 특성을 따라잡지 못하는 인간 정의 사전에 의존하는 대신 이루어집니다.
신경망 접근 방식은 "상향식" 귀납적 학습을 활용합니다. 수백만 개의 문서를 처리함으로써, 문맥 속 단어들 간의 확률적 관계를 파악합니다. 이는 속어와 문법의 유동적인 특성을 따라잡지 못하는 인간 정의 사전에 의존하는 대신 이루어집니다.